La Comisión Federal de Comercio de EE. UU. abrió una investigación sobre OpenAI por afirmaciones de que ha violado las leyes de protección del consumidor al poner en riesgo la reputación y los datos personales, la mayor amenaza regulatoria para la startup respaldada por Microsoft hasta el momento.
Esta semana, la FTC envió una demanda de 20 páginas de registros sobre cómo OpenAI, el fabricante del chatbot de inteligencia artificial generativa ChatGPT, aborda los riesgos vinculados a sus modelos de IA.
La agencia está investigando si OpenAI participó en prácticas desleales que resultaron en un «daño a la reputación» de los consumidores.
La investigación marca otro esfuerzo de alto perfil para controlar a las empresas de tecnología por parte de la presidenta progresista de la FTC, Lina Khan, días después de que la agencia sufriera una gran pérdida en los tribunales en su lucha para evitar que Microsoft comprara Activision Blizzard. La FTC dijo que apelaría la decisión de la corte.
Una de las preguntas que la FTC le ha hecho a OpenAI se refiere a los pasos que la compañía ha tomado para abordar el potencial de sus productos para «generar declaraciones sobre personas reales que son falsas, engañosas o despectivas».
The Washington Post fue el primero en informar sobre la investigación. La FTC se negó a comentar, mientras que OpenAI no respondió a una solicitud de comentarios.
El CEO de OpenAI, Sam Altman, dijo en una serie de tuits el jueves que la última versión de la tecnología de la compañía, GPT-4, se construyó sobre años de investigación de seguridad y que los sistemas fueron diseñados para aprender sobre el mundo y no sobre individuos privados.
«Por supuesto que trabajaremos con la FTC», dijo.
OpenAI lanzó ChatGPT en noviembre, cautivando a los consumidores e impulsando la superación en las grandes empresas tecnológicas para mostrar cómo sus productos imbuidos de IA cambiarán la forma en que operan las sociedades y las empresas.
La carrera de la IA ha generado preocupaciones generalizadas sobre los riesgos potenciales y el escrutinio regulatorio de la tecnología.
Los reguladores globales tienen como objetivo aplicar las reglas existentes que cubren todo, desde los derechos de autor y la privacidad de los datos hasta dos cuestiones clave: los datos introducidos en los modelos y el contenido que producen, informó Reuters en mayo.
En los Estados Unidos, el líder de la mayoría en el Senado, Chuck Schumer, pidió una «legislación integral» para promover y garantizar las salvaguardas de la IA, y se comprometió a realizar una serie de foros a finales de este año con el objetivo de «establecer una nueva base para la política de IA».
OpenAI tuvo problemas en marzo en Italia, donde el regulador desconectó ChatGPT por acusaciones de que la compañía violó el RGPD de la Unión Europea, un régimen de privacidad de amplio alcance promulgado en 2018.
ChatGPT se restableció más tarde después de que la empresa estadounidense aceptara instalar funciones de verificación de edad y permitir que los usuarios europeos bloquearan su información para que no se usara para entrenar el modelo de IA.
